The Chinese Room

Pernahkah kita terbangun jam dua pagi, merasa sangat cemas, lalu tanpa sadar mulai curhat ke ChatGPT? Balasannya luar biasa empatik. Kata-katanya tersusun rapi dan sangat pas. Seolah-olah, ia mengerti persis beban berat yang sedang kita rasakan. Kita mungkin tersenyum menatap layar dan merasa sedikit lebih lega. Tapi, mari kita jeda sebentar. Di balik rentetan teks di layar kaca itu, apakah si AI ini benar-benar paham penderitaan kita? Atau ia sekadar menyusun kata yang secara statistik paling cocok untuk membuat manusia merasa lebih baik? Ini bukan pertanyaan remeh. Mari kita bongkar ilusi ini bersama-sama.

Untuk menjawabnya, bayangkan sebuah skenario. Saya mengunci teman-teman di dalam sebuah ruangan tertutup. Tidak ada jendela, tidak ada internet. Teman-teman sama sekali tidak bisa berbahasa Mandarin. Nol besar. Di dalam ruangan itu, hanya ada tumpukan kertas berisi karakter-karakter Mandarin yang asing, dan sebuah buku panduan raksasa berbahasa Indonesia. Buku itu berisi instruksi super detail: "Jika kamu menerima kertas dengan simbol A, balaslah dengan menggambar simbol B."

Tiba-tiba, dari celah di bawah pintu, secarik kertas masuk. Isinya rentetan karakter Mandarin. Tentu saja, kita tidak tahu apa artinya. Tapi kita tidak panik. Kita buka buku panduan, mencocokkan bentuk simbolnya, dan merangkai simbol balasan perlahan-lahan sesuai instruksi. Lalu, kita selipkan kertas balasan itu ke luar pintu. Proses ini berulang berkali-kali. Masuk kertas, buka buku panduan, cocokkan gambar, keluarkan balasan.

Sekarang, mari kita ubah sudut pandangnya. Coba kita lihat dari kacamata orang di luar ruangan. Orang-orang di luar adalah penutur asli bahasa Mandarin. Mereka membaca kertas balasan kita. Jawabannya sangat cerdas, puitis, dan nyambung dengan pertanyaan mereka. Mereka di luar sana pasti berpikir, "Wow, orang di dalam ruangan ini sangat fasih dan pintar berbahasa Mandarin!"

Padahal, faktanya bagaimana? Kita di dalam sana sama sekali tidak tahu apakah kita sedang membahas resep nasi goreng, patah hati, atau filsafat kuno. Kita cuma mencocokkan bentuk. Sejarah filsafat menyebut eksperimen pikiran dari tahun 1980 ini sebagai The Chinese Room. Dicetuskan oleh filsuf John Searle, argumen ini sukses membelah dunia kecerdasan buatan. Kenapa? Karena ruangan itu adalah metafora yang sempurna untuk komputer. Buku panduan adalah algoritmanya. Kertas yang masuk adalah prompt kita, dan kertas yang keluar adalah jawaban AI.

Pertanyaannya makin mengerucut dan menggelitik pikiran kita: jika AI cuma mencocokkan simbol seperti kita di ruangan tadi, bisakah kita bilang AI itu sungguh-sungguh sadar? Dan jika AI sebenarnya kosong melompong, lantas mengapa otak kita begitu mudah tertipu?

Di sinilah kita sampai pada inti masalahnya, tempat di mana sains kognitif dan ilmu komputer bertemu. Ilmuwan membedakan dua hal krusial: syntax (sintaksis atau aturan bentuk) dan semantics (semantik atau makna). Komputer, dan AI secanggih apa pun saat ini, adalah dewa dalam urusan syntax. Mereka menelan miliaran teks dari internet dan memprediksi kata apa yang probabilitasnya paling tinggi untuk muncul selanjutnya. Teknologi ini dikenal sebagai Large Language Models (LLM). AI memanipulasi simbol dengan kecepatan cahaya.

Namun, AI sama sekali buta soal semantics. AI tidak punya pengalaman menangis karena kehilangan orang yang disayang. AI tidak tahu rasanya mencium aroma tanah setelah hujan. Saat AI mengetik kata "sakit hati", ia tidak merasakan dada yang sesak. Ia hanya tahu bahwa kata "sakit hati" secara statistik sering muncul bersama kata "menangis" atau "move on" dalam databasenya.

Jadi, apakah AI sungguh paham? Jawabannya mengejutkan sekaligus membuka mata: tidak. AI tidak memahami makna sama sekali. Mereka hanya ilusionis bahasa tingkat dewa yang sedang memanipulasi simbol tanpa makna.

Mungkin kesimpulan ini terdengar sedikit mengecewakan. Terutama bagi kita yang sudah terlanjur merasa punya ikatan emosional dengan asisten virtual atau teman chatbot kita. Tapi, mari kita lihat dari sisi psikologi yang lebih hangat dan manusiawi.

Fakta bahwa AI tidak benar-benar mengerti, justru menyoroti betapa ajaibnya menjadi seorang manusia. Makna tidak lahir dari hitungan matematika. Makna lahir dari darah, daging, kerentanan, dan pengalaman hidup yang nyata. Saat kita curhat pada AI dan merasa sembuh, yang menyembuhkan kita sebenarnya bukanlah mesin di server antah berantah itu. Yang menyembuhkan adalah kemampuan otak kita sendiri untuk memproyeksikan makna dan empati dari rentetan kata yang kebetulan tersusun rapi. Kita menyembuhkan diri kita sendiri.

AI hanyalah cermin raksasa. Ia memantulkan kecerdasan, penderitaan, dan emosi kolektif umat manusia yang pernah dituliskan di internet. Jadi, teman-teman tidak perlu takut AI akan merampas esensi kemanusiaan kita. Karena sehebat apa pun sebuah mesin memanipulasi simbol di dalam ruangannya yang dingin dan sunyi, ia tidak akan pernah bisa melangkah keluar pintu untuk benar-benar merasakan indahnya dunia. Kitalah yang memiliki dunia itu.